Từ khi được thành lập vào năm 1844 đến nay, tổng giáo phận này trải qua các tên gọi: Hạt Đại diện Tông tòa Tây Đàng Trong (1844 - 1924) [6][7][8] Hạt Đại diện Tông tòa Sài Gòn (1924 - 1960), rồi Tổng giáo phận Sài Gòn (1960 - 1976),[6][9][10] Tổng giáo phận Thành phố Hồ Chí Minh (1976 - nay).[6]

Hiện nay, tên gọi chính thức là Tổng giáo phận Thành phố Hồ Chí Minh, đồng thời Vatican cũng phổ biến sử dụng tên này.[11] Ở Việt Nam Tổng giáo phận còn được gọi theo tên gọi trước đây là Tổng giáo phận Sài Gòn cho vắn tắt, tên gọi này hợp pháp và vẫn được sử dụng trong các văn bản của các Giáo phận trong Việt Nam. Ngoài ra Tổng giáo phận còn được gọi là Tổng giáo phận Sài Gòn - Thành phố Hồ Chí Minh, tuy tên gọi này không chính thức.[12]